The Stable Recovery Manifold: Geometric Principles Governing Recoverability in Continual Learning
稳定恢复流形:持续学习中灾难性遗忘的几何原理
🧭 持续学习灾难性遗忘的几何分析
发现遗忘的知识保存在约 8 维低秩子空间,遗忘是几何可及性问题而非信息损毁。
📌 工作参考价值(4 点)
- 对电商推荐模型持续更新:旧知识未真正消失,可以通过低秩子空间访问,不必全量重训,可设计轻量适配器恢复旧任务性能,降低频繁全量更新的成本。
- 对 Agent 多任务学习:遗忘后通过主角度对齐就能大幅恢复性能,提示我们在微调 Agent 策略时保留旧策略的低维流形方向,可构建更稳健的持续学习系统。
- 对生成式推荐(如 Semantic ID 生成):模型更新后旧 item ID 生成能力仍存于低维子空间,可恢复旧码本映射,避免冷启动和遗忘。
- 主要学术贡献,业务可借鉴点在于遗忘可逆性的认知转变,具体工程落地仍需进一步验证。